Model Settings es una funcion de Questsmith que te permite personalizar y controlar como se generan las respuestas de la IA durante la partida. Estas opciones pueden variar entre distintos modelos.

La IA genera la siguiente parte de tu aventura creando una lista de posibles tokens y estimando la probabilidad de que cada uno sea el siguiente. Luego selecciona tokens de esa lista con un numero aleatorio y algo de matematicas. Advanced Settings te permiten cambiar los numeros de ese calculo que no son aleatorios.

Esto es complicado, asi que se recomienda mucho probar cada ajuste o pedir consejo en nuestro Discord.

Tambien puede resultarte util leer nuestro articulo mas avanzado sobre como se generan las respuestas de la IA, que puede ayudarte a entender como funcionan estos ajustes por detras.

Model Settings ya esta abierto a todos los jugadores de Questsmith.

Context Length

Context Length determina el numero maximo de tokens que se pueden enviar al modelo de IA en cada turno. Normalmente conviene ponerlo lo mas alto posible para que la IA reciba tanto contexto de tu aventura como pueda.

El contexto incluye informacion en Memory, entradas de Story Card activadas, Author's Note, cualquier Memories, instrucciones del modelo, la entrada mas reciente del jugador y la salida mas reciente de la IA. Cualquier espacio restante en el Context Length elegido se rellena con texto de la aventura, por lo que maximizar el contexto puede ayudar a que la IA genere respuestas mas coherentes.

El Context Length lo determina en ultima instancia tu nivel de membresia, pero no todos los modelos admiten contextos mas grandes.

Los jugadores suscritos tambien pueden gastar 1 Credit por accion para aumentar temporalmente el contexto en algunos modelos.

Response Length

Response Length determina el numero maximo de tokens que la IA generara en cada turno. Esto es sobre todo una cuestion de preferencia personal. Quizas quieras respuestas cortas que puedas leer rapido y decidir cuando intervenir, o respuestas largas con las que tomarte tu tiempo. Usa lo que mejor encaje con tu estilo de juego.

Temperature

Temperature controla la aleatoriedad de las respuestas de la IA. Un valor mas alto aumenta la imprevisibilidad y produce resultados mas variados y creativos, mientras que un valor mas bajo produce respuestas mas consistentes y predecibles. Ajustar Temperature te permite afinar cuanta aleatoriedad quieres en la experiencia.

La temperatura por defecto suele ser 0.8, aunque podrias probar 0.6 si la IA se aleja demasiado de una respuesta razonable, o 0.95 o incluso 1.2 si quieres ver un texto muy poco comun.

Ten en cuenta que subir demasiado Temperature puede llevar a tokens estramboticos o incluso incoherentes.

Top-K

Top-K limita las opciones de la IA al conjunto de los K tokens mas probables de su respuesta. Al reducir las posibilidades, Top-K ayuda a mantener la relevancia y coherencia en las respuestas, lo que es util cuando quieres una progresion de historia mas estable y predecible.

Si Top-K se establece en 20, la IA solo tendra 20 tokens probables para elegir en cada turno. Esto reduce la aleatoriedad al excluir opciones menos probables al generar nuevas salidas.

Top-P

Top-P filtra los tokens menos probables para garantizar que la salida de la IA siga siendo coherente y relevante. Funciona fijando un umbral de probabilidad, por ejemplo 90%, y seleccionando los tokens mas probables hasta que su probabilidad combinada alcance ese limite. Esto mantiene las salidas centradas y en el tema al limitar la IA a un conjunto mas relevante de tokens.

Esto funciona como una red de seguridad cuando se combina con Top-K. Top-K puede ser 50, y siempre seleccionara 50 tokens aunque algunos sean extremadamente improbables y no tengan mucho sentido si se eligieran. Top-P corta esos tokens improbables, pero aun asi te deja mas opciones cuando las elecciones de Top-K son probables. Hace que la IA sea segura cuando esta segura y creativa cuando no lo esta.

Si Top-P es demasiado bajo, las salidas pueden volverse repetitivas y poco interesantes. Si Top-P es demasiado alto, las salidas pueden volverse desordenadas, incoherentes e incluso grammaticalmente incorrectas.

Un Top-P de 0.90 a 0.95 es lo mejor para la mayoria de los jugadores, pero puede depender de tus otros ajustes. Si tienes un Top-K alto, quizas prefieras un Top-P mas bajo, y viceversa.

Presence Penalty

Presence Penalty aplica una penalizacion de peso unica a cualquier palabra que ya haya aparecido en la respuesta. Si la palabra Dog se usa una vez, Presence Penalty la penalizara para ayudar a evitar la repeticion inmediata, salvo que su probabilidad base sea lo bastante alta como para superar la penalizacion.

Sin embargo, subir demasiado este ajuste puede a veces producir el efecto contrario al deseado y causar mas repeticion. Si todas las palabras estan penalizadas, entonces nada lo esta.

Frequency Penalty

Frequency Penalty es similar a Presence Penalty, pero sus penalizaciones son acumulativas. Cuanto mas se haya usado una palabra, mas se penalizara en la siguiente respuesta. Esto puede sonar bien, pero recuerda que los nombres de personajes y palabras comunes como you, I, and y a se penalizaran mucho, asi que poner un valor demasiado alto puede eliminar tokens normales en favor de otros muy poco comunes e incluso volver la salida gramaticalmente incoherente.

Frequency Penalty suele estar en cero por defecto, y aunque puedes ponerlo muy alto, la IA empezara a tender a salidas extrañas si lo subes mucho por encima de 1.

Tips & Tricks

No hay reglas para estos ajustes.

La mejor forma de familiarizarte con ellos es experimentar, y no hay penalizacion por hacerlo. Cambialos y ajustalos, y luego mira que pasa en tu aventura. Puedes moverlos segun lo que creas que prefieres, y puede que te guste mas, o puede que vuelvas atras. Claro, las respuestas de la IA pueden volverse raras y locas, pero eso forma parte de la diversion de jugar a Questsmith.

No hay consecuencias reales por cambiar estos ajustes.

No hay consecuencias por subir Top-P, Temperature o Repetition Penalty al maximo solo para ver a la IA revolverse como un hombre de aire. No hay consecuencias por bajar todo a cero y ver a la IA hacer su mejor imitacion de un disco rayado.

Al fin y al cabo, todo en Questsmith se puede borrar y editar, asi que si no te gusta como escribe la IA con tus nuevos ajustes, borra y prueba otra vez.

No hay valores mejores acordados para estos ajustes.

Los valores por defecto han funcionado bien en nuestros experimentos, pero puede que no encajen con tu estilo de juego, y eso esta bien. Hemos ofrecido estos ajustes para que puedas personalizar y controlar tu experiencia de Questsmith como mejor te convenga. Si te gusta algo que nadie mas usa, genial. Al final del dia, es tu aventura, tu juego y tu experiencia, y puedes hacer lo que te haga feliz.

Happy Adventuring!